LM Studio + модель starcoder2-15b.Q8_0.gguf.

Задавать вопросы можно на русском языке.

Главное - запустить эту модель получилось с пинка десятого. Очень нестабильное поведение. Но код более взрослый, чем у Mixtral 8x7B Instruct.

Стрелки указывают на важные параметры:


( Read more... )